Köln đã hoạt động tuần tra dọc theo bờ biển Tây Ban Nha vào lúc diễn ra cuộc Nội chiến Tây Ban Nha. Khi Chiến tranh Thế giới thứ hai nổ ra vào tháng 9 năm 1939, nó tham gia các hoạt động tại vùng biển Baltic, rồi nằm trong thành phần Đội đặc nhiệm 3 trong việc vận chuyển binh lính từ Wilhelmshaven đến Bergen, Na Uy trong Chiến dịch Weserübung, cuộc tấn công chiếm đóng Na Uy. Sau đó chiếc tàu tuần dương hoạt động chủ yếu trong việc rải mìn và tấn công các đoàn tàu vận tải Đồng Minh.

Sau khi bị hư hại bởi một cuộc tấn công bằng tàu ngầm vào tháng 2 năm 1943, tàu tuần dương hạng nặng Admiral Hipper cùng với Köln phải được rút khỏi phục vụ để sửa chữa rộng rãi. Köln hoạt động trở lại vào tháng 3 năm 1944 trong vai trò huấn luyện học viên mới. Vào ngày 12 tháng 12 năm 1944, nó bị hư hại nặng trong một vụ ném bom, phòng động cơ bên mạn phải và trạm phát điện đều bị phá hủy. Köln lên đường đi đến Wilhelmshaven để sửa chữa, đến nơi vào tháng 2 năm 1945, và nó còn phải chịu thêm nhiều hư hại sau hai đợt ném bom khác. Köln bị hư hại nặng trong đợt ném bom đêm cuối cùng của Anh xuống cảng vào ngày 3 tháng 3 năm 1945; con tàu bị chìm xuống đáy cảng ở vùng nước nông trong tư thế thăng bằng. Các tháp pháo còn nổi trên mặt nước đã tiếp tục nổ súng vào lực lượng Đồng Minh đang tiến quân sau đó. Sau chiến tranh Köln bị tháo dỡ vào năm 1946.